Sau khi chuẩn bị chiêu binh mãi mã cho một cuộc tấn công mới vào Antiochia, Ioannes đắm chìm trong thú vui săn lợn rừng trên núi Taurus ở Cilicia, chính tại đây vào ngày 8 tháng 4 năm 1143, ông vô tình bị cắt vào tay bởi mũi tên tẩm độc.[57][58] Ban đầu Ioannes lờ đi vết thương và nó trở nên sưng tấy dữ dội. Ông qua đời một vài ngày sau vụ tai nạn, có thể là bị nhiễm trùng huyết. Có ý kiến cho là hoàng đế bị một thành phần trong các đơn vị quân đội gốc Latinh mưu sát vì họ không hài lòng với việc phải chiến đấu với đạo hữu của thành Antiochia, và muốn đưa người con thân phương Tây là Manouel lên nối ngôi.[59] Tuy nhiên, có rất ít sự ủng hộ công khai cho giả thuyết này trong các nguồn sử liệu chính.[60] Hành động cuối cùng của Ioannes với tư cách là hoàng đế đã chọn Manouel, đứa út trong số mấy người con trai còn sống sót của mình, là người kế vị. Ioannes được ghi nhận là đã dẫn chứng hai lý do chính cho việc lựa chọn Manouel hơn là ông anh cả Isaakios: tính nóng nảy của Isaakios, và lòng dũng cảm mà Manouel đã thể hiện qua chiến dịch tại Neocaesareia.[61][62] Một giả thuyết khác cho biết rằng lý do cho sự lựa chọn này là lời tiên tri AIMA, tiên đoán rằng người kế vị của Ioannes nên là ai đó có tên bắt đầu bằng một chữ "M". Đúng ra, bạn thân của Ioannes là Ioannes Axouch, theo sử sách ghi chép đã cố sức thuyết phục vị hoàng đế sắp lâm chung rằng Isaakios mới là ứng cử viên tốt hơn dành cho ngai vàng, góp phần đảm bảo rằng chính việc lên nắm quyền của Manouel sẽ giúp tránh được bất kỳ sự phản đối công khai nào.[63]